Hoàng Văn Thái tên thật là Hoàng Văn Xiêm, sinh vào 1 tháng 5 năm 1915 tại làng An Khang, tổng Đại Hoàng (nay thuộc thị trấn Tiền Hải), huyện Tiền Hải, tỉnh Thái Bình.[1] Cha của ông là Hoàng Văn Thuật, từng làm Tổng sư[2] của tổng Đại Hoàng.

Từ nhỏ Hoàng Văn Xiêm được cho là một học sinh chăm chỉ, ham học hỏi. Tốt nghiệp bằng tiểu học Pháp Việt loại ưu, tuy nhiên do hoàn cảnh gia đình khó khăn nên vào năm 13 tuổi, Xiêm đã phải bỏ học đi làm thuê rồi đi làm thợ cắt tóc. Năm 15 tuổi, chứng kiến cuộc nổi dậy của nhân dân Tiền Hải hưởng ứng phong trào Xô Viết Nghệ Tĩnh, ông bắt đầu chịu ảnh hưởng về phong trào Cộng sản.

Năm 18 tuổi, Hoàng Văn Xiêm đi làm phu thợ ở mỏ than Hồng Gai (Quảng Ninh) sau đó làm phu thợ tại mỏ thiếc Tĩnh Túc (Cao Bằng). Tại đây, ông được những người bạn phu mỏ giới thiệu về Chủ nghĩa Cộng sản. Tham gia các hoạt động bãi công và chống lại sự bóc lột của chủ mỏ, ông bị đuổi việc và trở về quê vào năm 1936.

Lúc này, phong trào Mặt trận Nhân dân Phản đế Đông Dương đang phát triển. Vốn có kinh nghiệm tham gia tổ chức đoàn thể của các phu mỏ, ông vận động các thanh niên trong làng thành lập Đoàn Thanh niên Dân chủ, tổ chức các hội ở địa phương như: hội hiếu, hội tương tế, hội đá bóng, hội nhạc âm, hội đọc báo... Một cán bộ cộng sản là Nguyễn Trung Khuyến được cử về để trực tiếp hướng dẫn hoạt động.

Với danh nghĩa mở lớp dạy nhạc âm, ông tập hợp các thanh niên tham gia hoạt động đoàn thể. Chỉ sau vài tháng số học viên trong làng phát triển nhanh. Hội tương tế lên tới 170 hội viên do ông Lương Thúy làm Hội trưởng, Hoàng Văn Xiêm làm Thư ký. Qua các hoạt động đó, ông cùng các bạn bí mật rải truyền đơn, vận động nhân dân chống sưu cao thuế nặng, chống bắt phu bắt lính, đấu tranh đòi quyền tự do dân chủ. Do những hoạt động tích cực của mình, ông được chú ý và được giới thiệu kết nạp vào Đảng Cộng sản Đông Dương tháng 3 năm 1938.

Tháng 4 năm 1938, chính phủ Mặt trận bình dân (Pháp) đổ. Chính quyền thực dân Pháp đàn áp phong trào Mặt trận Dân chủ Đông Dương. Những người hoạt động trong phong trào đều bị truy bắt hoặc phải rút vào hoạt động bí mật, trong đó có cả Hoàng Văn Xiêm. Mãi đến tháng 9 năm 1940, do bị chỉ điểm, ông bị chính quyền thực dân Pháp bắt giải về phủ Kiến Xương giam giữ. Lợi dụng việc bảo lãnh tại ngoại chờ ngày xét xử, ông được tổ chức bố trí bí mật thoát ly khỏi địa phương, rút về hoạt động ở vùng Hiệp Hòa, Lạng Giang (Bắc Giang).